OpenAI的AGI信仰与权斗｜站在AGI的十字路口｜从“GPT略有感觉”到“感到被GPT理解”

点击

上方蓝字关注我们

图：在这个月初的一个视频访谈中，Ilya谈到最新的GPT进展给他最震惊的突破是：当和GPT对话时，有那种被理解的感觉。

“

Elon Musk在周末的OpenAI控制权风暴后发帖说：

“我非常担心。

伊利亚有良好的道德观，不追求权力。

除非他认为绝对有必要，否则他不会采取如此激烈的行动。”

𝕏：@TaNGSoFT

2023年11月18-19日这个周末，围绕OpenAI的AGI路径控制权，OpenAI的六席位董事会成员中掀起了巨浪滔天，以Ilya Sutskever为首联合三位独立董事为一派，与CEO Sam Altman及总裁Greg Brockman二人组为另一派，展开了一场关乎AGI信仰派与商业派、超级对齐派（superalignment）与有效加速派（e/acc）的权斗，这无疑将是通用人工智能（AGI）历程乃至人类与类人智能史上（𝕀²·ℙarad𝕚g𝕞）浓墨重彩的一页。

AI范儿社区紧密跟踪事态发展，并发布一系列进展文章，详见社区公众号。剧情一路演进，截止本文撰写时，经传是OpenAI目前最大单一金主微软CEO Satya出面，撮合Sam&Greg前往OpenAI总部与董事会4位成员谈判。

图：北京时间周一凌晨5点左右Sam发帖佩戴OpenAI访客胸牌等候与董事会谈判

作为智能平方范式研究的AI范儿社区，如何不急于站队与作出草率判断，而是试图寻找一个更高维视角来观察、思考呢？

从𝕏上的时间线信息流中，显然看不到此次发难的主导派的声音、负责OpenAI AGI超级对齐的Ilya Sutskever与Jan Leike，及其它相关内部成员均未有表态，更没有在Sam隔空喊话另起炉灶的召集帖上点赞。

一切都在这个周末快速酝酿，在Sam&Greg掀起的舆论热浪里，不乏有效加速派（e/acc）的声音，以及一众表面上是AGI信仰实际上更看重OpenAI的商业化后的股票期权价值的Sam的跟随者员工表态离职。

当然与AI范儿社区关注的一样，另一种声音逐步浮现：Ilya为何会掀起这场AGI控制权风暴？

这种声音在Elon Musk的一个回复帖里，变得更清晰，毕竟Elon Musk的视角维度、先验知识以及内幕信息有着无人能及的优势。

Elon表示了他对“10月7日Ilya有关于人性中智能价值唯上的质疑”的回复感叹，在好事𝕏友的引用提及下又做了进一步的解释：

“我非常担心。

伊利亚有良好的道德观，不追求权力。

除非他认为绝对有必要，否则他不会采取如此激烈的行动。”

细心的𝕏友更是发现，作为超级安全对齐的部门负责人Jan Leike点赞了Elon的发声。

事态发展到这里，笔者想起之前看过的最新Ilya视频访谈片段：

在视频片段末，针对主持人问他的什么是他这些年来最为震惊的AI进展，Ilya纠结了很久，最后仿佛说了他能说的，就是：

“When I speak to it, I feel understood!”

笔者依稀记得在2个月前的另一篇访谈中（AI范儿社区公众号也做了编译转载），Ilya说的是GPT“略有感觉已经有一段时间了“：

毋庸置疑，伊利亚是AGI坚定的信仰者，这种信仰源自于对深度神经网络机器学习持续坚持20年的热爱。最近，他的主要工作已经全面转向超级对齐（superalignment）。在上面视频的这段采访中的Ilya还表示，GPT 的架构 Transformer显然可以让我们走向 AGI。

他还补充道：我们不应该从二进制角度思考“是否足够”，而是“需要付出多少努力，使用这种特定架构的成本是多少”？也许进行一些修改，可以有足够的计算效率优势；专门的大脑区域并未完全硬编码，但具有很强的适应性和可塑性；人类皮质非常均匀。你只需要一个大的统一架构。

采访者｜我听到人们争论的一个问题是，基于 Transformer 的模型可以在多大程度上应用于 AGI 所需的全套领域。例如，如果你看一下人类的大脑，你确实有相当专业的系统，或者所有的神经网络，都是视觉皮层的专门系统，而不是更高层次的思维区域、同理心区域或从个性到处理的其他方面。您认为 Transformer 架构是持续发展并帮助我们实现这一目标的主要因素吗？还是您认为随着时间的推移，我们会需要其他架构？Ilya Sutskever｜我完全理解你的意思，并且对这个问题有两个答案。首先，在我看来，思考架构问题的最佳方式不是用二进制的“是否足够”的方式，而是“需要付出多少努力，使用这种特定架构的成本是多少”？就像在这一点上，我认为没有人怀疑 Transformer 架构可以做一些令人惊奇的事情，但也许其他的东西，也许一些修改，可能会带来一些计算机效率的好处。因此，最好从计算效率的角度来考虑，而不是从它能否实现这一点来考虑。我想此时此刻答案显然是肯定的。关于人脑及其大脑区域的问题 - 我实际上认为那里的情况是微妙的和具有欺骗性的，原因如下：我相信你提到的是人脑具有已知区域的事实。它有一个语音感知区域，它有一个语音产生区域，图像区域，面部区域，它有所有这些区域，而且看起来它是专门的。但你知道什么是有趣的吗？有时，有些很小的孩子在很小的时候就患有严重的癫痫症，他们想出治疗这些孩子的唯一方法就是切除他们的一半大脑。因为这件事发生在很小的时候，这些孩子长大后都成为功能正常的成年人，他们拥有相同的大脑区域，但不知何故被压缩到一个半球上。因此，可能会损失一些信息处理效率，这是一件非常痛苦的事情，但不知何故，所有这些大脑区域都会重新排列自己。还有一个实验，这可能是 30 或 40 年前在雪貂身上进行的。雪貂是一种小动物，这是一个相当卑鄙的实验。他们取出来自雪貂眼睛的视神经，并将其连接到听觉皮层。因此，现在来自眼睛的输入开始映射到大脑的语音处理区域，然后在经过几天的学习观察后，他们记录了不同的神经元，他们发现听觉皮层中的神经元与视觉皮层非常相似反之亦然，要么他们将眼睛映射到耳朵到听觉皮层，要么将耳朵映射到视觉皮层，但类似的事情已经发生了。这些是人工智能中众所周知的想法，即人类和动物的皮层非常统一，这进一步支持了这样的想法：你只需要一个大的统一架构，这就是你所需要的。“you just need one big uniform architecture, that's all you need.”

笔者的理解Ilya的这番表述是，在artificial neuron基本功能的数字化实现后，然后就是玩neurons的架构组合工程游戏，而AGI的路径显而易见的吧。

对于数字智能的神经网络（neural nets）的表述，从“略有感觉（feeling）“到”被理解的感觉（understood）“，以笔者个人这段时间的理解，这种表述转变的潜台词是：

在GPT-4的交互中，你可能还在迟疑，这GPT表示出来的那种feeling，是它从人类语言中解析得到还是它自己的？但月初的这个下一个版本的GPT给Ilya的感受是一种智能对等的“被理解”的感觉！

这可能是基于数字智能的神经网络（neural nets）的智能的一种飞跃，这种飞跃笔者认为离这种神经网络的自我意识几乎已经很迫近，一旦这样的智能有了自我主张，而人类尚未做好AI安全对齐、打上人性的印记（Imprinting，详见公众号文章伊利亚·苏茨克沃尔（Ilya Sutskever）真正想要什么？），那其中的安全风险不是OpenAI的简单的商业化价值、以及一些员工个人的股票期权价值所能权衡的！

回到周末的OpenAI董事会行动风暴的缘起，可能从上半年Sam组织的全球巡演中，唯一一次Sam和Ilya同台的那次访谈中可以一窥端倪，当时凭笔者直觉，Sam和Ilya的分歧似乎已经存在，而且当时Sam的表情复杂：

限于篇幅，各位有兴趣可以找一下相关的视频看看。

再细想什么触发了这次周五的行动呢？也许可以从前一天Sam在APEC企业家的筹资会议中的一番话可以看出：

@blader“两天前，山姆-阿尔特曼（Sam Altman）不经意地提到，OpenAI 最近取得了一项巨大突破，推动了 ‘发现的前沿向前发展--这是其 8 年历史上取得的第 4 项此类突破‘。昨天，解散派突然把他赶下了台。这绝非巧合。”

这绝非巧合！

但最终的真相还需要当事者本人揭示！

让我们拭目以待！

原文链接：相关𝕏文及视频

往期推荐

伊利亚·苏茨克沃尔（Ilya Sutskever）真正想要什么？

已有超过1000名

读者加入交流群

我们还在等你

点这里👇关注我，记得标星哦～

点个在看你最好看

CLICK TO SEE YOU LOOK THE BEST